Google elimina las respuestas de su IA en búsquedas médicas por ofrecer consejos peligrosos

Google ha decidido retirar de urgencia los resúmenes generados por inteligencia artificial en ciertas búsquedas relacionadas con la salud. Esta drástica medida responde a una investigación reciente que ha sacado a la luz casos en los que la herramienta proporcionaba información engañosa, falsa y potencialmente peligrosa para los pacientes.

El detonante ha sido un informe de The Guardian, que expuso cómo el buscador ofrecía consejos médicos que contradecían directamente las recomendaciones de los especialistas. En uno de los casos más alarmantes, la IA aconsejaba a personas con cáncer de páncreas evitar alimentos ricos en grasas. Los expertos han calificado este consejo como "realmente peligroso", ya que la recomendación médica estándar es exactamente la opuesta, y seguir las instrucciones de la IA podría aumentar el riesgo de muerte.

Otro ejemplo involucraba pruebas de función hepática. La herramienta proporcionaba datos falsos sobre los rangos normales en los análisis de sangre, lo que podría llevar a personas con enfermedades hepáticas graves a creer erróneamente que están sanas. Actualmente, consultas como "¿cuál es el rango normal para las pruebas de sangre del hígado?" ya no muestran el panel de inteligencia artificial.

Este incidente pone de manifiesto un problema creciente en el sector tecnológico: la excesiva implementación de la inteligencia artificial y la inestabilidad de los modelos. Si bien estas herramientas han demostrado ser útiles para aumentar la productividad en tareas creativas o administrativas, su implementación forzada en ciertos campos resulta a menudo innecesaria y arriesgada. Delegar respuestas médicas a un modelo probabilístico, sin la supervisión adecuada, transforma una herramienta de ayuda en una fuente de desinformación sanitaria.

Un historial de errores y silencio corporativo

La compañía ha declinado hacer comentarios específicos sobre esta eliminación selectiva, pero el movimiento se suma a una lista de controversias que rodean a esta funcionalidad. La tecnología, que busca resumir información de la web para el usuario, ha demostrado ser propensa a fallos vergonzosos en el pasado.

No es la primera vez que los resúmenes de IA de Google acaparan titulares por las razones equivocadas. Anteriormente, el sistema llegó a sugerir a los usuarios que pusieran pegamento en la pizza para que el queso se adhiriera mejor o que comer piedras podía ser beneficioso. Aunque esos errores eran absurdos, los fallos actuales en el ámbito médico cruzan la línea hacia un terreno mucho más delicado. Ya no es que la IA esté secuestrando el contenido creado por los sitios, es que puede poner en riesgo la vida de las personas.

Fin del Artículo. ¡Cuéntanos algo en los Comentarios!